On the SPOT: Enhancing Speculative Decoding for Diffusion Language Models via Commit-Order Prediction
SPOT：通过提交顺序预测增强扩散语言模型的推测解码
🧭 扩散语言模型推理加速 · 推测解码
Technion – Israel Institute of Technology · Ben-Gurion University of the Negev
提出SPOT小模型预测扩散语言模型的下一个提交位置，构建候选树实现无损推测解码，吞吐最高提升3.4倍
📌 工作参考价值（4 点）
- 若业务使用扩散语言模型生成文本（如商品描述、推荐理由、query 扩展），可部署 SPOT 这类 0.62M 参数的 drafter，仅读目标模型输出分布预测更新顺序，目标模型单次 pass 验证，实现无损加速，额外计算成本极低。
- 非自回归生成场景（如并行生成多个推荐解释、多位置 mask 填充）可借鉴“顺序外置”思路：训练轻量模型预测哪些位置先提交，减少大模型前向次数，适合低延迟实时推荐。
- SPOT 的 drafter 只依赖目标模型输出分布，具备跨模型迁移能力，可以在多个不同扩散语言模型间复用，降低频繁换模型的部署成本；业务上可训练一个通用 drafter。
- SPOT-Sets 支持动态阈值解码下一次性提交多个位置，适合同时生成多个字段（标题、标签、摘要）的任务，在 SDAR-8B 上平均提升 59% 吞吐，可借鉴到多字段并行生成的工程实现。